Bernoulli Distribution

f(x)=px(1p)1xf(x)=p^x(1-p)^{1-x}

E(x)=xf(x)=0(1p)+p=pE(x)=xf(x)= 0 * (1-p) + p= p
D(x)=p(1p)D(x)=p(1-p)
抛一次硬币

求解唯一的参数 μ\mupp

  • 根据似然函数

    • p(Dμ)=n=1Np(xnμ)=n=1Nμxn(1μ)1xnp(\mathcal{D} \mid \mu)=\prod_{n=1}^N p\left(x_n \mid \mu\right)=\prod_{n=1}^N \mu^{x_n}(1-\mu)^{1-x_n}
  • 求对数似然函数

    • lnp(Dμ)=n=1Nlnp(xnμ)=n=1N{xnlnμ+(1xn)ln(1μ)}\ln p(\mathcal{D} \mid \mu)=\sum_{n=1}^N \ln p\left(x_n \mid \mu\right)=\sum_{n=1}^N\left\{x_n \ln \mu+\left(1-x_n\right) \ln (1-\mu)\right\}
  • 对对数似然求导,令结果等于 0

    • μML=1Nn=1Nxn\mu_{\mathrm{ML}}=\frac{1}{N} \sum_{n=1}^N x_n

样本的均值是伯努利分布的[[充分统计量]] sufficient statistic
ls-type:: annotation
hl-page:: 89
hl-color:: yellow
(分布的参数 μ\mu 可以由该统计量估计得到)

作者

Ryen Xiang

发布于

2024-10-05

更新于

2024-10-05

许可协议


网络回响

评论